OpenAI के CEO ने आंतरिक रूप से GPUs की कमी होने की बात स्वीकारी है, जिसके कारण GPT-4.5 के लॉन्च में देरी हो सकती है। कंपनी ने पुष्टि की है कि यह नया मॉडल चरणबद्ध तरीके से जारी किया जाएगा।

अमेरिकी तकनीकी कंपनी Nvidia ने हाल ही में इजरायली सॉफ़्टवेयर कंपनी Run:ai का अधिग्रहण पूरा किया, दोनों के सहयोग से AI क्लाउड कंप्यूटिंग के प्रबंधन की दक्षता में और सुधार होगा। हालांकि अधिग्रहण की सही राशि का खुलासा नहीं किया गया, लेकिन रिपोर्टों के अनुसार, इस लेनदेन की कीमत लगभग 7 बिलियन डॉलर है। Nvidia ने Run:ai के सॉफ़्टवेयर को ओपन-सोर्स करने की घोषणा की है, ताकि AI पारिस्थितिकी प्रणाली का अधिक व्यापक रूप से समर्थन किया जा सके। Run:ai का核心 सॉफ़्टवेयर ग्राहकों को Nvidia GPU संसाधनों को कुशलता से शेड्यूल करने में मदद कर सकता है, जिससे AI गणनाओं को अनुकूलित किया जा सके।

OpenAI इंजीनियरिंग टीम के प्रबंधक एवान मोरिकावा ने ChatGPT की सफलता के अनुभव साझा किए। इंजीनियरिंग टीम ने एक रचनात्मक प्रतिक्रिया दी: ChatGPT को CatGPT में बदलना, जो केवल बिल्लियों की आवाज़ों का जवाब देता है। GPU संसाधनों का अनुकूलन ChatGPT के लिए एक प्रमुख चुनौती बन गया है। क्षेत्रीय तैनाती और निचली स्तर की कार्यान्वयन विवरणों का विश्लेषण GPU की आपूर्ति में कमी को दूर करने में मदद करता है। ChatGPT टीम ने स्वतंत्र स्टार्टअप मॉडल अपनाकर डिलीवरी की गति बढ़ाई।

अमेरिका में अमेज़न AWS ने ऑन-डिमांड Nvidia H100 GPU संसाधनों को बुक करने के लिए Amazon EC2 क्षमता ब्लॉक्स सेवा लॉन्च की है। उपयोगकर्ता ऑन-डिमांड 1-64 उदाहरणों को बुक कर सकते हैं, प्रत्येक उदाहरण में 8 GPU होते हैं और अधिकतम उपयोग समय 14 दिन होता है। कीमत GPU संसाधनों की आपूर्ति और मांग के अनुसार गतिशील रूप से बदलती है। उपयोगकर्ता अपनी आवश्यकताओं और बजट के अनुसार समायोजन कर सकते हैं। यह सेवा पहले AWS के अमेरिका पूर्व क्षेत्र में शुरू की गई है, जो AI परियोजनाओं के लिए GPU संसाधनों की कमी से निपटने में मदद करती है। यह नया ऑन-डिमांड खरीद और शेड्यूलिंग तरीका उपयोगकर्ताओं को अनुमति देता है जैसे कि वे पूर्व...